Detecting Malapropisms Using Measures of Contextual Fitness

While detecting simple language errors (e.g. misspellings, number agreement, etc.) is nowadays standard functionality in all but the simplest text-editors, other more complicated language errors might go unnoticed. A difficult case are errors that come in the disguise of a valid word that fits syntactically into the sentence. We use the Wikipedia revision history to extract a dataset with such errors in their context. We show that the new dataset provides a more realistic picture of the performance of contextual fitness measures. The achieved error detection quality is generally sufficient for competent language users who are willing to accept a certain level of false alarms, but might be problematic for non-native writers who accept all suggestions made by the systems. We make the full experimental framework publicly available which will allow other scientists to reproduce our experiments and to conduct follow-up experiments. RÉSUMÉ. Alors que la détection d’erreurs simples est aujourd’hui une fonctionnalité standard des traitements de texte un peu évolués, de nombreuses erreurs restent difficiles à repérér. C’est souvent le cas lorsque la forme correcte est remplacée par une autre forme valide et syntaxiquement plausible en contexte. Nous avons utilisé les révisions de Wikipédia pour extraire automatiquement une listes d’erreurs de ce type. Ces données permettent de se faire une meilleure idée de l’utilité réelle des indicateurs standard de conformité contextuelle, qu’ils soient linguistiques ou statistiques. Les taux de détection obtenus sont généralement suffisants pour des scripteurs compétents qui seraient prêts à accepter un certain niveau de fausses alarmes ; ils restent problématiques pour des scripteurs nonnatifs. L’ensemble du dispositif expérimental utilisé pour ce travail sera rendu public, ce qui permettra à d’autres chercheurs de reproduire nos expériences et d’approfondir nos résultats.